Từ kết quả nghiên cứu khảo cổ học của Viện khảo cổ học và theo Đại Nam nhất thống chí, Bình Định nói chung và An Nhơn nói riêng thuộc đất Việt Thường Thị được hình thành sớm, tương đương với thời Tam Hoàng, Ngũ Đế của Trung Hoa.

Vào đời Tần, đất An Nhơn thuộc Tượng quận, đời Hán đặt huyện Tượng Lâm thuộc quận Nhật Nam, đời Tuỳ đổi thành quận Lâm Ấp.

Năm 803, An Nhơn là đất của hai thành Chà Bàn và Thị Nại thuộc nước Chiêm Thành.

Năm 938 đến năm 1470, An Nhơn là vùng trung tâm của Vương quốc Chăm Pa cổ đại, với thủ đô là thành Đồ Bàn (nay thuộc xã Nhơn Hậu) tồn tại 5 thế kỷ, từ thế kỷ XI đến XV.

Năm 1471, vua Lê Thánh Tông tháng 4 chiếm thành thành Đồ Bàn, tháng 7 lập phủ Hoài Nhơn lệ vào Thừa tuyên Quảng Nam. Phủ Hoài Nhơn khi đó có ba huyện: Bồng Sơn, Phù Ly và Tuy Viễn. An Nhơn thuộc huyện Tuy Viễn.

Năm 1602, Chúa Nguyễn Hoàng đổi phủ Hoài Nhơn thành phủ Quy Nhơn. Phủ thành Quy Nhơn đóng tại thôn Châu Thành (phường Nhơn Thành, thị xã An Nhơn ngày nay).

Năm 1778, sau khi giải phóng các vùng đất từ Quảng Nam đến Ninh Thuận, nhà Tây Sơn định đô ở An Nhơn, cải tạo và mở rộng thành Đồ Bàn, xây dựng thành Hoàng Đế. An Nhơn trở thành trung tâm chính trị của nhà Tây Sơn khi vua Thái Đức - Nguyễn Nhạc xây dựng thành Hoàng Đế.

Năm 1799, Nguyễn Ánh chiếm thành Hoàng Đế, đổi tên thành là Bình Định. Vua Gia Long lấy thành Bình Định làm trị sở của dinh Bình Định.

Năm 1832, vua Minh Mạng lập phủ An Nhơn gồm các huyện Tuy Phước và Tuy Viễn, phủ lỵ An Nhơn đặt tại thôn Hoà Cư, xã Nhơn Hưng, đến năm 1852 phủ lỵ dời về An Thái - Nhơn Phúc.

Qua nhiều lần điều chỉnh địa giới và đơn vị hành chính, đến năm 1865, phủ An Nhơn có 4 tổng: Mỹ Đức (19 làng), An Ngãi (26 làng), Nhơn Nghĩa (28 làng), Háo Đức (35 làng). Năm 1939, phủ An Nhơn lập thêm 2 tổng mới, tách tổng Nhơn Nghĩa thành Nhơn Nghĩa Thượng và Nhơn Nghĩa Hạ, tách tổng Háo Đức thành Háo Đức Thượng và Háo Đức Hạ, phủ lỵ An Nhơn chuyển về phường Bình Định ngày nay.

Trong suốt giai đoạn phong kiến, đất An Nhơn là nơi chứng kiến, ghi dấu ấn sâu sắc của nhiều sự kiện lịch sử, văn hoá lớn của đất nước nói chung và tỉnh Bình Định nói riêng.

Sau Cách mạng Tháng Tám năm 1945, chính quyền cách mạnh đổi tên phủ An Nhơn thành phủ Nguyễn Trọng Trì.

Đến tháng 2 năm 1946, đổi phủ thành huyện, bỏ cấp tổng, sáp nhập 108 làng chia thành 31 xã.

Đến tháng 4 năm 1947, huyện An Nhơn được sắp xếp lại thành 12 xã.

Năm 1950, tách một phần phía Đông Bắc xã Nhơn Hậu thành lập thêm một đơn vị hành chính là xã Đập Đá.

Sau năm 1954, chính quyền Ngô Đình Diệm đổi huyện An Nhơn thành quận An Nhơn có 13 đơn vị hành chính gồm các xã: Đập Đá, Nhơn An, Nhơn Hạnh, Nhơn Phong, Nhơn Hậu, Nhơn Hoà, Nhơn Hưng, Nhơn Khánh, Nhơn Phúc, Nhơn Lộc, Nhơn Mỹ, Nhơn Thành, Nhơn Thọ.

Năm 1972, tách xã Phước Hưng thuộc quận Tuy Phước nhập vào quận An Nhơn, đổi tên là xã Nhơn Tân.

Sau năm 1975, tỉnh Nghĩa Bình được thành lập từ 2 tỉnh Bình Định và Quảng Ngãi, quận An Nhơn được đổi thành huyện An Nhơn có 13 xã, tách xã Nhơn Tân trả về huyện Tuy Phước với tên cũ là Phước Hưng.

Ngày 24 tháng 3 năm 1979, Chính phủ ban hành Quyết định số 127-CP thành lập thị trấn Bình Định trên cơ sở tách một phần diện tích xã Nhơn Hưng.

Ngày 19 tháng 2 năm 1986, Hội đồng Bộ trưởng ban hành Quyết định số 15-HĐBT thành lập xã Nhơn Tân trên cơ sở một phần diện tích của xã Nhơn Thọ và một phần diện tích của xã Nhơn Lộc.

Ngày 26 tháng 12 năm 1997, Chính phủ ban hành Nghị định số 118/1997/NĐ-CP thành lập thị trấn Đập Đá trên cơ sở xã Đập Đá.

Ngày 28 tháng 11 năm 2011, Chính phủ ban hành Nghị quyết số 101/NQ-CP thành lập thị xã An Nhơn và thành lập 5 phường thuộc thị xã An Nhơn, tỉnh Bình Định.

Thị xã An Nhơn có 24.264,36 ha diện tích tự nhiên, 178.817 nhân khẩu với 15 đơn vị hành chính trực thuộc, gồm 5 phường: Bình Định, Đập Đá, Nhơn Hòa, Nhơn Hưng, Nhơn Thành và 10 xã: Nhơn An, Nhơn Phong, Nhơn Hạnh, Nhơn Hậu, Nhơn Mỹ, Nhơn Khánh, Nhơn Phúc, Nhơn Lộc, Nhơn Tân, Nhơn Thọ.